home *** CD-ROM | disk | FTP | other *** search
/ Power CD-ROM!! 8 / Power CD-ROM 8.iso / docs / pentium.txt < prev    next >
Text File  |  1994-12-09  |  2KB  |  42 lines
  1. A quick test to see if the CPU has the FPU problem is to perform the
  2. following calculation (all calculations can be done using the Windows
  3. Calculator or any spreadsheet or math program):
  4.  
  5.  X=4195835*2^n
  6.  Y=3145727*2^n
  7.  
  8.            Note: 'n' can be any integer, but must be the same for both
  9.            'X' and 'Y'.  The 2^n segment of 'X' and 'Y' are optional,
  10.            but must in both or neither (in other words you can't leave
  11.            the 2^n in the expression for 'X' and not have it in the one
  12.            for 'Y').
  13.  
  14.  eqn=(X/Y)*Y-X   <---- This is the equation your P5 should calculate.
  15.  
  16. As anyone who has taken even basic algebra knows, this equation
  17. simplifies to X-X which, of course, equals zero, except on P5 CPU's with
  18. the FPU error.
  19.  
  20. Other tests:
  21.  
  22.  Divide 5,505,001 by 294,911
  23.       buggy answer:    18.66600093
  24.       correct answer:  18.66665197
  25.  
  26.  Divide 4,195,835 by 3,145,727 
  27.       buggy answer:     1.33373907
  28.       correct answer:   1.33382045
  29.  
  30. This error is of little consequence unless you perform math intensive 
  31. calculations WHICH UTILIZE THE FPU and have significant digits past 4 
  32. decimal places.  The odds of hitting the correct sequence of numbers to 
  33. generate this error are astronomical otherwise (only 1,378 numbers out 
  34. of 64 trillion number combinations have produced the bug thust far, 
  35. according to the latest info from Intel...).
  36.  
  37. Further information can be obtained from Intel's FAXback service at 
  38. 1-800-525-3019 by requesting document number 9788.
  39.  
  40. Further info on Internet is available via anonymous ftp at www.isi.edu in 
  41. directory /pub/carlton/pentium/FAQ.
  42.